Вместо обращения к определенному элементу массива, в условии if (R>mas[0]) всегда сравнивается с mas[0], а не с mas[i].